Thơ Nguyễn Duy nhiều bài có cái ngang tàng nhưng vẫn trầm tĩnh và giàu chiêm nghiệm vì thế cứ ngấm vào người đọc. Trong cái đà ngấm ấy có lúc khiến người ta phải giật mình suy nghĩ, nhiều bài thơ của ông được bạn đọc yêu thích: Tre Việt nam, Ánh trăng, Ngồi buồn nhớ mẹ ta xưa, Đò Lèn, Sông Thao,.... Ông được đánh giá cao trong thể thơ lục bát, một thể thơ có cảm giác dễ viết nhưng viết được hay thì lại rất khó. Thơ lục bát của Nguyễn Duy được viết theo phong cách hiện đại, câu thơ vừa phóng túng lại vừa uyển chuyển chặt chẽ. Nguyễn Duy được giới phê bình đánh giá là người đã góp phần làm mới thể thơ truyền thống này. Bài thơ Tre Việt nam của ông đã được đưa vào sách giáo khoa phổ thông của Việt Nam.

Nguyễn Duy còn có bộ 3 bài thơ theo thể tự do nổi tiếng được công chúng biết tới viết về những trăn trở, suy nghĩ của ông về tương lai đất nước, tương lai của con người và môi sinh. Bài thơ đầu mang tên Đánh thức tiểm lực viết từ năm 1980 đến 1982 với những suy tư về tiềm lực và tương lai của đất nước. Bài thơ thứ hai được viết lúc ông đến thăm Liên Xô và đến năm 1988 mới hoàn thành mang tên "Nhìn từ xa...Tổ quốc". Bài thơ viết về những trì trệ, bất cập mà ông mắt thấy tai nghe trong thời kì bao cấp, với những câu thơ rất mạnh mẽ, "như những nhát dao cứa vào lòng người đọc" (Lê Xuân Quang). Bài thơ thứ 3 viết sau đó chục năm, mang tên Kim, Mộc, Thủy, Hỏa, Thổ vẫn cùng thi pháp với 2 bài thơ trước nhưng chủ đề lại rộng hơn: những suy nghĩ về thiên nhiên, không gian và tương lai con người.

Nhạc sĩ Trịnh Công Sơn đã nói như sau: "Hình hài Nguyễn Duy giống như đám đất hoang, còn thơ Nguyễn Duy là thứ cây quý mọc trên đám đất hoang đó." [cần dẫn nguồn]Ông giành giải Mai Vàng năm 1997 cho tuyển tập thơ Bụi.[2]